Johan III là con trai thứ hai của Vua Gustav Vasa (1523-1560). Mẹ của ông, Margareta Leijonhufvud (1514-1551), là một nữ quý tộc người Thụy Điển. Với cương vị là Công tước của Phần Lan, ông luôn đối đầu với người anh cùng cha khác mẹ là Erik XIV của Thụy Điển (1560-1568) và bị bắt giam năm 1563. Sau khi được trả tự do, có lẽ bởi vì hành động điên rồ của Erik XIV, Johan lại một lần nữa đứng lên chống lại anh trai và tự đưa mình lên ngai vàng. Đồng minh đắc lực của ông chính là người cậu Sten Leijonhufvud, người sau khi mất được phong tước vị Công tước xứ Raseborg. Sau đó ít lâu, Johan ra lệnh chém đầu người cố vấn đáng tin cậy nhất của anh trai mình là Jöran Persson, người luôn đối xử tàn tệ với ông khi ông còn ở trong tù.

Sau đó, Johan đã tham dự nhiều cuộc đối thoại hoà bình với Đan Mạch và Lübeck cho đến khi cuộc chiến tranh Bảy năm kết thúc, nhưng cuối cùng ông đã từ chối ký Hiệp ước Rokskilde vì những yêu cầu quá mức mà Đan Mạch đòi hỏi khi chiến tranh kết thúc. Do đó, trong hai năm liền, dù chiến tranh liên tiếp xảy ra nhưng Thụy Điển vẫn quyết không chịu nhượng bộ. Trong những năm tiếp theo, Johan đã giành chiến thắng vẻ vang trước Nga trong cuộc chiến tranh ở Livonian, đồng thời ký Hiệp ước Plussa năm 1583 chấp nhận cho Thụy Điển lấy lại thành phố Narva. Bên cạnh đó, những chính sách đối ngoại của ông luôn bị ảnh hưởng bởi mối liên hệ giữa ông và Ba Lan, quốc gia mà con trai ông, Sigismund III Vasa sẽ lên trị vì vào năm 1587.

Về tình hình chính trị trong nước, Johan luôn bày tỏ sự tin sùng của mình đối với Giáo hội Công giáo Rôma, khơi nguồn từ hoàng hậu người Ba Lan, vợ của ông. Năm 1575, ông cho phép các nữ tu viện của Giáo hội Công giáo Rôma được tiếp tục hoạt động và nhận các tín đồ mới. Ông luôn bất đồng quan điểm với người em trai là Công tước Karl xứ Sudermania (sau này là Vua Karl IX của Thụy Điển). Ngoài ra, ông còn là một người đam mê hội họa và kiến trúc.

Johan III khi trở thành Vua

Tháng 1 năm 1569, Johan thừa kế ngai vàng sau khi ông buộc Erik XIV phải thoái vị.

Tuy nhiên, ngày nào Erik XIV vẫn còn sống thì ngày đó, Johan III vẫn chưa an tâm ngồi trên chiếc ngai vàng của mình. Lo sợ rằng một ngày nào đó, Erik XIV sẽ quay lại giành lấy ngai vàng, Johan III đã ra lệnh cho cận vệ của mình phải giết cho bằng được Erik. Kết quả, mạng sống của Erik bị kết liễu năm 1577.

Johan III đã công bố việc này với toàn dân, nhắc đi nhắc lại nhiều lần rằng "Thụy Điển đã tự do", thoát khỏi "con chó săn" Christian II của Đan Mạch cũng như đã giải thoát nhân dân khỏi "bạo quân" Erik XIV của Thụy Điển, một ông vua ngang tàng, độc ác.